技術 LLM Note Day 2 - 神經網路語言模型

簡介 透過文本捕捉語言結構，進而建立一個統計機率模型，廣義而言就可以被稱作一種語言模型。本文主要介紹透過神經網路訓練出來的語言模型，以及常見 Transform...

技術 python RNN 實現八位元的二進制數加法運算

import copy, numpy as np np.random.seed(0) # compute sigmoid nonlinearity def s...

技術 筆記-回聲狀態神經網路(Echo state network)

更新紀錄: 2020/05/07-更新排版、代碼、參考文獻 前言: ESN是RNN的一個變種，優點在於訓練速度比一般RNN快幾百倍(用回歸求解矩陣)。主要參...